Transferability for General Reasoning: An Automated Curriculum for Multi-Domain RLVR
通用推理的可迁移性:多领域RLVR自动课程学习
🧭 跨领域迁移感知课程 · RLVR
University of Toronto · Carnegie Mellon University · Princeton University · University of Illinois Urbana-Champaign · Max Planck Institute for Intelligent Systems
提出Transfer-Aware Curriculum (TAC),利用梯度投影对齐自动选择能促进跨领域迁移的训练领域
📌 工作参考价值(4 点)
- 在多任务推荐或跨场景排序中,借鉴梯度投影对齐度量任务间迁移性,动态调整训练数据采样权重,避免领域不均衡导致头部任务垄断。
- 在LLM微调业务中,用在线bandit策略融合局部学习进度与跨域迁移信号,无需人工设计课程,且计算开销极小(<1%),适合工程落地。
- 可利用RL训练已产生的优势函数和投影梯度,不必额外构造监督信号,降低实现复杂度。
- 实际场景中,若领域间存在正向迁移(如通用语义理解可为多个下游任务带来增益),TAC思路可扩展至多领域对话、多意图排序等场景,提升整体性能。